Từ thiên hà có gốc Hán-Việt là 天河, chỉ đến sông Hà Hán (河漢), một con sông trên trời, với chiều dài rất lớn.[12]

Trong tiếng Anh, từ galaxy xuất phát từ thuật ngữ tiếng Hy Lạp để chỉ thiên hà của chúng ta, galaxias (γαλαξίας) hay kyklos galaktikos có nghĩa "vòng sữa" theo hình dáng biểu thị của nó trên bầu trời.[13] Trong Thần thoại Hy Lạp, thần Zeus đã đặt cậu con trai mới sinh với một người phụ nữ bình thường-Alcmene của mình là Hercules lên trên bầu vú của Hera khi bà đang ngủ, nhờ thế cậu bé bú được dòng sữa thần thánh của bà và trở thành bất tử. Hera thức dậy và nhận ra rằng cậu bé không phải con của bà: bà đẩy đứa trẻ ra và một dòng sữa từ bầu ngực bà phun lên bầu trời đêm.[14][15]

Trong văn phong của thiên văn học, từ 'Galaxy' viết hoa thường được coi là nói tới Ngân Hà để phân biệt nó với hàng tỷ thiên hà khác. Khi William Herschel thực hiện bảng phân loại danh mục các thiên thể xa xôi trên bầu trời vào năm 1786, ông đã dùng tên gọi các tinh vân xoắn ốc cho một số thiên thể nhất định như M31. Sau này, các nhà thiên văn nhận ra những thiên thể này chứa vô vàn các ngôi sao, và khi khoảng cách đến chúng được xác định một cách tốt hơn, họ đã gọi chúng là những đảo vũ trụ. Tuy nhiên, người ta hiểu từ Vũ trụ có nghĩa là toàn bộ thực thể tồn tại, do vậy từ đảo vũ trụ dần ít sử dụng hơn và ngày nay các nhà thiên văn học thống nhất gọi là các thiên hà.[16]